Des robots et des hommes

Le sujet est revenu récemment dans l’actualité à l’occasion de la 24ème conférence internationale sur l’intelligence artificielle qui se tenait fin juillet à Buenos Aires et durant laquelle scientifiques, industriels et intellectuels ont rédigé une lettre ouverte appelant à “interdire préventivement les armes autonomes offensives sans contrôle significatif d’un être humain».

«Comme les biologistes et les chimistes qui ne veulent pas fabriquer des armes biologiques et chimiques, la plupart des chercheurs en intelligence artificielle (IA) n’ont aucun intérêt pour les armes IA». Ils estiment que sans traité international, une course à l’armement autonome sera inévitable et pourrait être aussi risqué pour l’humanité que la course à l’armement nucléaire. De quoi animer les fantasmes de la science-fiction. 

Un univers de SF sans IA ni robots ?

Les robots et les Intelligences artificielles sont probablement nés en même temps que la science-fiction et sont presque toujours indissociable de ce genre. De Metropolis de Fritz Lang à Interstellar de Nolan, en passant par le cycle des robots d'Asimov, que ce soit dans la littérature, au cinéma, dans les jeux vidéos (et même dans la musique ! ), dès qu’il est question de science fiction, les robots et les IA répondent présents.

Ils peuvent prendre plusieurs formes, robots carrés à roulettes, humanoïdes, androïde synthétiques, en métal liquide, ou simple ordinateur. Ils ont plusieurs buts, assister les hommes, les seconder, les conduire, les remplacer dans des taches difficiles ou dangereuses, se battre à leur place, sauver l'humanité ou la détruire.

Mais ils ont tous un point commun, ce sont des entités artificielles créées par des êtres vivants et doués d’une conscience et d’une intelligence pour atteindre un but fixé.

Or il ne vous a peut-être pas échappé en parcourant les artworks, les fictions, les vidéos, que dans l’univers de Star Citizen, tous ces éléments sont absents. En réalité, dans les 3 principaux univers de SF de Chris Roberts (Wing Commander, Freelancer et Star Citizen), les IA n’existent pas ou sont très mineures. Bien qu'il soit un grand fan de Star Wars et Battlestar Galactica, Roberts partage une point commun avec Lucas : une passion pour la seconde guerre mondiale et plus particulièrement aux combats aériens de l’époque. Aussi c'est une constante chez Roberts de placer l'humain au centre de l'action et de limiter l'utilisation des machines à celle que nous connaissons aujourd'hui : un pilote ne peuvent compter que sur son talent, et son vaisseau est l'extension de son corps. De plus, selon Roberts, l'absence d'IA et d'android dans le jeu, permet de renforcer l'immersion du joueur. 

Le background

D'un point de vue scénaristique, selon Dave Haddock écrivains sur Star Citizen, les incidents qu'a connu l'humanité lorsqu'elle a fait appel à des IA l'a dissuadé de les utiliser, sans pour autant faire appel à un traité internationale, ni de lois spécifique pour interdire leur utilisation.

Une lettre écrite par Parker Terrell, un journaliste dans l’univers de Star Citizen, décrit les raisons pour lesquelles l’utilisation d’intelligence artificielle n’est pas une bonne idée. Intitulée  “N’apprendrons nous jamais ?” elle relate quelques événements (détaillés par ailleurs dans d’autres articles fictionnels SC) prouvant qu’à chaque fois que l’homme s’est appuyé sur des IA, il a chuté.

La première référence à ces catastrophes se déroule en 2044 à Tokyo et n’est détaillée autrement que par son nom : “the lemming cars incident”, soit l’incident des voitures lemmings… Il y a peu de doutes sur la référence au célèbre jeu du même nom sorti à la même période que Wing Commander.

L’incident Martien

Par la suite d’autres événements sont narrés plus en détail à travers diverses nouvelles et articles du background de SC. Chronologiquement, le premier se déroule en 2125. La terraformation de Mars est alors en cours depuis 5 ans et les mesures et analyses des équipes sur place montrent que l’atmosphère est stable. Toutes les installations utilisent dorénavant l’atmosphère ambiante de la planète. Pourtant un brusque changement dans la composition chimique va prendre par surprise les scientifiques et causer la mort de la totalité des habitant sur place. 10 ans d'enquêtes ont imputé la tragédie à une erreur de calcul d’une IA que les responsables du projet avaient secrètement installé aux commandes de la terraformation.

L’Artemis

En 2232, alors que l’humanité naviguait avec facilité à l’intérieur du système solaire grâce aux moteurs quantiques, un groupe de 5 000 volontaires montait à bord de l’Artemis, à la conquête de la plus proche planète extra-solaire colonisable. Équipé d’un système de stase pour l'équipage, le vol devait durer 200 ans et être co-piloté par l’intelligence artificielle JANUS qui prendrait le relais lorsque le capitaine entrerai également en stase.

Les derniers enregistrements précédent le décollage montrent le capitaine demander à JANUS de faire preuve d'initiative et d’imagination dans le calcul des mesures d’urgence. 700 ans plus tard, l’humanité n’avait toujours aucune nouvelle de l’Artemis, la perte du vaisseau est officiellement attribuée à un problème d’IA.

Ironie de l’histoire, 40 ans après le décollage de l’Artemis, le Capitaine Croshaw fut le premier être humain à découvrir un point de saut, et le traverser sains et sauf, prouvant qu’il était possible de voyager rapidement vers des systèmes bien plus éloignés que celui où se rendait l’Artemis.

L’incident de Horus

Plus proche de la période contemporaine de SC, la première mention d’arme autonome dans le background de Star Citizen, est issue de documents déclassifiés de l’armée qui relate l’incident de Horus. Peu après le traité de paix de 2789 mettant fin à une longue guerre meurtrière contre les Xi’An, la marine de l’UEE, en collaboration avec Aegis Dynamics ont déployé, le long de la frontière Xi’An, un protopye de bombardier “Overlord” entièrement contrôlé par une IA. Si l’intention était louable (rappeler les pilotes mobilisés dans ce secteurs depuis le début de leur carrière) son application fut un échec total. Les prototypes de plusieurs milliards de crédits ont crus repérer une intrusion dans leurs protocoles de communications avec le centre de commandement et les ont coupés par mesure de sécurité, juste avant de recevoir l’ordre de rappel. L’UEE fut forcé d'abattre ses propres appareils pour éviter que le fragile traité de paix ne soit rompu et l’incident coûta extrêmement cher à Aegis.

A quoi s’attendre dans SC ?

Si un univers de science fiction sans robots ni IA peu surprendre à première vue, il existe des précédents qui permettent de se faire une idée de ce à quoi pourrait bien ressembler Star Citizen.

Premièrement, Wing Commander (jeux et film) et Freelancer, dont Chris Roberts n'a pu récupérer la licence, sont les principales inspirations de l'univers de Star Citizen, et ils ne comportent ni robots, ni IA.

La série Firefly et son ambiance western, est également régulièrement citée dans les interviews avec les scénaristes, et est très populaire parmis les fans de SC. Elle met en scène un équipage de contrebandier navigant de colonie en colonie et ne possède aucune IA, ni même aucun robot plus ou moins sophistiqué.

Dans une certaine mesure Battlestar Galactica est assez proche de Star Citizen lorsque l'on ne regarde que le Galactica et son équipage. La série raconte le voyage des derniers survivant de l'humanité décimée par des IA et qui par conséquent ne volent que sur des vaisseaux à l'informatique rudimentaire, et aidé d'aucun robot (déclaré !) ni IA. 

Dans la série Mass Effect, l'utilisation d'IA est interdite par le Conseil Galactique suite au conflit entre les Quariens et leur création : les Geths. Même si au final les IA se révèlent être le thème principal du jeu (par l'intermédiaire des Moissonneurs, des entités bioméchaniques cherchant à anéantir les civilisations évoluées) les motivations du Conseil sont les mêmes que celles de l'humanité dans Star Citizen : éviter de reproduire les erreurs passées. 

Par contre l'univers de SC est relativement compatible avec des robots de type "mech" contrôlés par des humains. Que ce soit à distance tel que le Moose de CHAPPiE ou directement au commande tel que le robot chargeur d'Aliens. Un modèle d'armure exosquelette prévu pour les combat FPS au sol était même évoqué à une époque. 

De même, les prothèses cybernétiques et organes synthétiques devraient être de la partie pour permettre aux avatars des joueurs de revenir à la vie et récupérer de leurs blessures. Par contre, si Luke Skywalker et sa mains artificielle son cités en exemple, il y'a peu de chance que le jeu laisse les joueurs arriver à des extrêmes tels que Darth Vader, Grievous ou Robocop.

Les interface de contrôle de vaisseaux, quand à elle, devraient rester rudimentaire : pas de R2D2 ou de TARS comme assistant, pas de Mother pour contrôler les systèmes. Tout au mieux l'interface sera vocale, mais se contentera d’effectuer des actions dénuée d'intelligence. 

L’avenir sur ArcCorp ?

Mais la finalité de la lettre de Parker Terrel est en réalité, comme la vrai lettre ouverte de Hawking, un appel à la prudence et à ne pas commettre à nouveau les même erreur.

Car en 2945, au moment où se déroule Star Citizen, un consortium d’ArcCorp annonce être entrain de travailler sur un projet d'intelligence artificielle révolutionnaire capable d’apprendre.

Voila qui ressemble fort à une porte ouverte pour un scénario d’extension de Squadron 42 !